Sen(Qian)’s Memo

https://arxiv.org/abs/2306.11343

完全なラベルで学習することがDNNの性能を引き上げる重要な要素だが、プライバシーや機密性、アノテーションコストの高さから個々のインスタンスについてのラベルを詳細には与えることはできず、ある程度のインスタンスグループに対してのラベルのみ与えられる場合がある。

ユーザ情報のプライバシーのため、グループで○○という統計量だったと開示するなど。あとは薬物活性予測でもグループごとにラベルがついたりする。

集合観測=Aggregate Observationによる分類タスク、CFAO(Classification from Aggregate Observation)は必要である。

よくあるのが、Multi-instance Learning。グループ内で○○のラベルを持つデータは少なくとも1つはある、というように。

また、ラベルの割合から学習するLearning from Label Proportionもある。

2つのペアの類似度で学習するClassification from Pairwise Similaritiesもある。

先行研究におけるCFAOは、普遍的な手法は最大尤度推定に基づいていた。だが、それではグループ内ですべてのサンプルで○○の性質を持っていると推定するものであり、リスク一貫性が保証されない(学習を進めても真のLabelで学習したものと同じ収束先にはいかない)。そして対数尤度を使うので、損失関数が限られている。

この論文では、不偏推定量を提案した。

グループについての統計量からの分類学習を考える。これは以下のように定義される。

• $\mathbf{x}_{1:m} = \{ \mathbf{x}_1, \cdots, \mathbf{x}_m \}$　このように各グループが与えられる。
  • 与えられはしないが、真のラベルは$y_{1:m} = \{ y_1, \cdots, y_m \}$である。
  • 与えられるのは、表現空間$Z$にあるAggregate Labelの$z \in Z$である。
  • Aggregation Labelはある関数$g : Y^m \to Z$で写像される。
• 目標は、$(\mathbf{x}_{1:m}, z)$を与えられて、正しく各サンプルについて、$y$を予測すること。

具体例としては、

• $m=2$の場合は、2つのデータが同じか違うか。
• $m=3$の場合は、大小関係が$d(y_1,y_2) < d(y_1, y_3)$かどうか。
• $m \geq 2$の場合、1つでもPositiveはあるか。
• $m \geq 2$の場合、ラベルの比率がどうなっているか。
• $m = 2$の場合、2つのデータの順位付け$y_1 > y_2$かどうか。

そのうえで、グループの中に属しているデータは独立であるという仮定を持つ。

これを踏まえると以下のように、$p(\mathbf{x}_{1:m}, y_{1:m}, z)$は以下のように計算できる。

不変リスク推定量は以下のようになる。

ここでは、

1. 各サンプル$\mathbf{x}_i$に対して、考える。真のラベルが$y_i=j$だとしたときの損失と、それが$y_i = j$となり、Aggregation Labelも$z$になる条件付確率を乗じる。
2. これを各ラベル、各サンプルについて合算する。
3. 全部で$m$サンプルあるので、$1/m$で平均をとる。そして確率は、ラベル条件をなくした$p(z|\mathbf{x}_{1:m})$で正則化する。

つまり、なる確率が低いラベルに対しては重みを減らしていくことで、すべてのラベルだった場合の損失を計算している。

これを経験的に最小化すると、以下のようにできる。

現実的には、どのように$p(z|\mathbf{x}_{1:m})$と$p(z, y_i | \mathbf{x}_{1:m})$を推定するのが問題となる。もちろん集約関数$g : Y^m \to Z$によってもそれぞれが違う推定方法をとるだろう。

$p(z, y_i | \mathbf{x}_{1:m}) / p(z|\mathbf{x}_{1:m}) = \omega_{y_{1:m}}$を推定したい。

これについて対数尤度$\log p(z|\mathbf{x}_{1:m})$を最大化する学習を考える。それをするには隠れ変数の$y_i$がカギを握る。なので、これはEMアルゴリズムを考えられる。

📄EM Algorithmの解説 のなかの$q(Z)$はここでは$\omega_{y_{1:m}}$にあたる。

Eステップでは$q(Z) = p(Z|X)$と今時点での推定を代入することにあたる。ここでは、$p(y_i|\mathbf{x}_{1:m})$のパラメタを固定して、$p(z, y_i | \mathbf{x}_{1:m}) / p(z|\mathbf{x}_{1:m}) = \omega_{y_{1:m}}$を計算する。

Mステップでは、$\mathbb{E} _{Z|X, \theta _{old}}[\log p(X, Z|θ)]$を最大化する。これは今の推定した$\omega_{y_{1:m}}$に基づいて、$\log p(X, Z | \theta)$においての期待値に相当する$\sum _{y_i} \omega_{y_{1:m}} \log (p(y_i , \mathbf{x}_{1:m}) / \omega_{y_{1:m}})$を最大化することにあたる。

ここで、右辺は$z$という与えられている変数ともjoint distributionである$\omega_{y_{1:m}} \log p(y_i ,\mathbf{x}_{1:m}, z)$でないといけないが、今回$z$の影響はhidden labelの$y_i$のイテレーションにのみ影響し、$p(y_i, \mathbf{x}_{1:m}, z) = p(y_i, \mathbf{x}_{1:m})$が成り立つから外している(Ground Truthのラベルから$z$を計算するし)

この論文が考えているCFAOは以下のを考える。

• ペアごとの類似性による分
• 3つ組の比較による分類
• 複数インスタンス学習(1つのデータは最低でもXXである)
• ラベルの比率からの学習

類似性や3つ組での学習をすると、最悪識別不能になることがある。情報が少なさすぎて学習が難しいから。なので、近いデータについては近い予測になるというconsistencyはないが、Risk Consistencyだけは保証できる。

そして、識別可能なマッピングも重要である。例えば、学習した3つのクラスがクラス1: 犬、クラス2: 猫、クラス3: 鳥だが、常にこの通りに出力されず、クラス1: 鳥、クラス2: 猫、クラス3: 犬となる可能性もあるということ。

これを解決するために、ハンガリーアルゴリズムという線形割り当て問題を解くためのアルゴリズムで、クラスをマッチさせる。

各CFAOの方法ごとに識別可能性の問題ごとに、推定方法を考える。

2つのデータ$\mathbf{x}_i, \mathbf{x}_j$が同じクラスに属するか、違うクラスに属するか

この場合は、$\eta_i(\mathbf{x}_i)$とは、サンプルに対して識別器の出力したクラス$i$である確率。

以上のように計算できる。

Ground Truthのラベル$y_1, y_2, y_3$に対して、$d(y_1, y_2) < d(y_1, y_3)$かどうか

ここでは、距離を$d(y, y^\prime) = \mathbf{1}[y \neq y^\prime]$と置いた時の例を示している。

これは以下のようになる。

与えられるのは$y_i$ではなく、各ラベルのデータの個数のベクトル$\mathbf{z}$である。

$p(z|\mathbf{x}_{1:m})$では、ありうるすべての組み合わせについての走査をしている。

そして具体的な$p(z=g(y_{1:m}), y_i = j | \mathbf{x}_{1:m})$の計算では、$i$番目だけラベルが決まっているということなので、最後に$\eta_j(\mathbf{x}_i)$をかけている。

一連のラベル$y_i$の中に、1つでもPositiveがあるかどうか

二値分類なので、Pの確率を$\eta_1$、Nの確率を$\eta_0 = 1 - \eta_1$とする。

• MNIST、Kuzushiji-MNIST、FMNIST、SVHN、CIFAR-10についてそれぞれこれの問題設定で実験した。
• ネットワークはLeNet, DenseNet, MLPなどを使った。
• 損失はCross Entropy。
• 5回ずつ実験した。

結果は少しだけ改善されてた感がある。